De forma muy general, y dado que este tema daría para horas y horas, la creación de un sistema de trading va a basarse en un concepto que haya funcionado "bien" en el pasado y que (ojalá) lo siga haciendo bien en el futuro.
¿Cómo empezar? Pues con una idea sencilla que seas capaz de transformar en reglas objetivas para después evaluar los resultados de forma manual (bastante tedioso) o mediante ordenador (lo más lógico). En consecuencia, una de tus primeras tareas sería familiarizarte con un software destinado a tal efecto y aprender a expresar tus ideas en un lenguaje que el ordenador entienda.
La parte más importante de esa idea sencilla no es la señal de entrada, al contrario de lo que se piensa habitualmente, sino la salida (tanto si la operación va bien como si va mal). Salvo para tu ego, no te va a servir de nada un sistema muy fiable (que acierta casi siempre), pero que las pocas veces que falla convierte esa pérdida en irrecuperable. O, en otras palabras, que lo poco que gana las muchas veces que acierta no te valga para cubrir lo mucho que pierde las pocas veces que falla (además de los costes de transacción). Es decir, tus esfuerzos, y esto te lo digo después de muchos palos, deberían ir centrados en la implementación de una correcta gestión del capital y control del riesgo. Hay "experimentos", uno de ellos creo que de Van K. Tharp, que demuestran que sistemas guiados por el azar podrían llegar a ser mínimamente aceptables con una buena gestión monetaria.
Una vez empieces a probar ideas, lo más recomendable es que incluyas costes de transacción, que el periodo de estudio sea lo más amplio posible, y con distintas situaciones de mercado, y ver si con diferentes parámetros y en diferentes activos sigue funcionando razonablemente bien tu sistema. Como consejo personal, para buscar ideas, empezaría partiendo de fenómenos con validez académica como el momentum (Cliff Asness es una referencia en este campo).
Con las estadísticas en la mano, ya serás tú el que juzgue si el sistema tiene sentido, si tienes tolerancia al riesgo para asumir la peor racha (¿aguantaría sin pestañear una pérdida del 30 %?), cuánto pierde cuando pierde, cuánto gana cuando gana...